新一代视频编码标准H.266/VVC（Versatile Video Coding）的码率控制算法采用编码参数相互独立的率失真优化技术。然而，同一帧内的编码树单元（CTU）间在空域上相互影响，且存在全局编码参数；同时，CTU级比特分配公式采用近似的编码参数分配比特，进而降低了码率控制精度和编码性能。针对上述问题，提出空域全局优化CTU级比特分配算法RTE_RC（Rate Control with Recursive Taylor Expansion），并通过递归算法逼近全局编码参数。首先，建立空域全局优化比特分配模型；其次，应用递归算法求解CTU级比特分配模型中的全局拉格朗日乘子；最后，优化编码单元的比特分配并对编码单位进行编码。实验结果表明，在低延时P（Prediction）帧（LDP）配置下，与码率控制算法VTM_RC相比，所提算法的码率控制误差由0.46%下降至0.02%，码率节省了2.48个百分点，编码时间下降了3.52%，显著提升了码率控制精度和率失真性能。

率失真（R-D）优化是视频编码器中一项关键技术，然而当前广泛采用的独立率失真优化远未达到全局最优性能。为了进一步提升高效视频编码（HEVC）的压缩性能，提出了一种结合率失真依赖性和率失真特性的二次编码优化算法。首先，采用原始HEVC的方法对当前帧进行第一次编码，从而得到当前帧消耗的比特数和每个编码树（CTU）单元的率失真模型参数；然后，结合时域依赖率失真优化，根据当前帧比特预算和率失真模型参数计算每个CTU的最佳拉格朗日乘子及量化参数；最后，对当前帧中每个CTU采用不同的优化目标重新编码。实验结果表明，在低延迟B帧和P帧编码配置下，与HEVC基准相比，所提视频编码优化算法在同样编码质量下节省了3.5%和3.8%的码率，获得了显著的率失真性能提升。